其他
人工智能非合作性竞争的风险，已经来临……
The following article is from 学术plus Author plus观察者
前沿君微信：tech99999 手机：18501361766
来源：《Technology and National Security: Maintaining America's Edge》The Aspen Institute (2019年1月31日)
作者：Jack Clark
编译：学术plus高级评论员 计宏亮
转自：学术plus
本文题为《Artificial Intelligence and Countries: What Might Happen, What We’d Like to Happen, What We Should Avoid Letting Happen》，节选自专著《Technology and National Security: Maintaining America's Edge》，
本文部分继文章《影响国家安全的四项新兴技术》之后，讨论了除了生物技术、小型卫星、量子计算机和认知增强这四种新兴技术对美国国家安全的影响之外，着重从“人工智能”角度，分析该技术对国家安全的影响，最后提出应对建议。
人工智能如何影响国家安全？
Artificial Intelligence and Countries: What Might Happen, What We’d Like to Happen, What We Should Avoid Letting Happen
影响国家安全的四项新兴技术
计算机的处理速度正变得越来越快，数据集也愈发丰富，能够开发和部署这项技术的人群范围也大大扩大。人工智能已经成熟到大量非政府实体都在进行AI的开发和部署……
在过去的几年里，基于神经网络的人工智能技术已经不断趋于成熟，AI在与数据分类相关的任务中已经远远优于人类，比如：自动标记图像，抄写文本，或处理更抽象和难以辨别的数据流，例如监视数字网络上的流量流量，并发现异常行为的迹象。
现在AI技术的系统已经用于执行各种任务，并开始进行部署。如：识别医学图像中的肿瘤，预测地震的潜在位置，从视频片段读取嘴唇，识别跟踪城市中的行人，分析无人机镜头进行灾难响应分析……人工智能系统现已足够先进，如果有大量标记良好的数据并可以访问大型计算机，那么将很容易开发一个准确度高于90％的数据分类系统，而在商业开发的情况下，其精度达到99％或更高。
如今，数字化和人工智能的融合让这个世界成为一个“机器可读的世界”，这反过来又使相关方更便宜，更容易使用人工智能来更有效地实现目标。就像谷歌和亚马逊等公司使用AI提升企业运营效率一样，世界各地的情报机构和军队也正在探索如何使用AI来加强信息分析能力，从而可以监控更多世界上的实时信息。
人工智能已经深入到各国的发展计划中：中国目标在2030年成为人工智能的全球领导者；韩国、法国、加拿大、英国等国家都宣布了国家人工智能战略；加拿大总理贾斯汀·特鲁多（Justin Trudeau）表示，人工智能使加拿大有机会“在世界舞台上大展身手。”
由于其不言而喻的实用性和重要性，各国将人工智能作为表明其技术进步愿望的一种方式。人工智能技术已经远远超过先前革命的技术水平，各个参与AI进程的国家也将很快获得基于人工智能的能力。很快，人工智能系统将可以驾驭越来越复杂的行动，同时减少人工监督（例如，谷歌的数据中心现在由人工智能算法管理，观察每个设施内传感器的数据流，然后自动调整机器以优化效率这些数据中心使用电力），而这种转将极大地拓宽技术的效用。
在这一进程中，我们将看到各国如何相互联系，各国如何与自己的私营公司联系，甚至不良行为者如何利用人工智能对他人造成伤害的深刻影响。
IBM最新《人工智能白皮书》
中美AI竞赛，中国惜败？
《空军》起飞！美空军AI转型
【重磅】斯坦福《2018人工智能指数报告》
未来的人工智能机器人不仅可以对世界进行分类，还可以针对不用的分类采取相应行动。
目前的技术分类已经包括了：自动管理公用电网的软件；教授计算机学习构建云计算基础软件的系统；用于运送机器人和无人机自动导航系统；在建筑物内绘制、导航和打开门的机器人操作系统；以及专门的机器人手动系统，可以教导他们操纵具有类似人类能力的物体；基于为AI提供更强大的想象力和记忆能力的新系统将让我们开发能够分析复杂情况并设想在其中实施的计划和策略的机器，例如OpenAI在策略游戏Dota 2和Alphabet子公司的工作DeepMind在电子竞技游戏星际争霸。
这些系统将越来越擅长在其环境中自动分析和行动，无论是自主探索科学或数学领域还是为物质事物提供动力，总之，已经开始开始影响世界的运行方式。
但值得担心的问题是，随着技术的进一步改进，政府和一些企业将会争先把这些技术部署在敏感领域。而此时这些技术还不够强大，尤其很难保证系统的稳健性和可预测性。即使如此，政府会仍会坚持做一些看似风险很大的举措，其重要原因在于部署人工智能系统获得战略优势非常限制，也因此导致了全球性的技术竞赛。
所有技术进步背后蕴含了一个统一的趋势：人工智能的工业化。这一趋势源于计算能力的增加、更好的工程实践、数字数据量的增加、研究部门的扩大，以及从政府到大公司到个人的技术的多个最终用户的到来。
这种工业化趋势中的一个关键因素是：计算的增长。
目前对计算机的基本预测是：比现在快10倍或100倍，而这些硬件可能会在今年或明年就推出。除此之外，人工智能部门在开发并行使用多台机器的系统方面也越来越好。
例如，OpenAI训练AI已经超过100,000台计算机的速度。这比许多人直觉所表明的要快。OpenAI最近进行的一项分析显示，由于计算机速度更快，并且我们能够并行使用更多计算机，因此重要AI应用程序使用的计算量在大约六年内增长了300,000多次。如果这种趋势成为现实，那么日益强大的AI系统将变得易于开发。这些系统的一般效用将远远大于我们现有的系统，这将扩大部署它们的行为者可用的能力并增加部署它们的压力。
由于人工智能更多体现在软件而非硬件中，因此与国家安全密切相关的技术相比，扩散的速度更加迅速。同样，也是由于基于软件的特点，跟踪和控制的难度也成倍加大。这也将意味着：随着算法强大，以及开发和部署的成本降低，越来越多的参与者将加入技术开发中。
当然，其中大部分将产生积极的影响，可以使得国家更安全，并提高经济生产力，甚至带来医疗保健和公用事业基础设施的飞速进步。但是！由于几乎任何AI算法都可以用于军事和非军事目的，因此，AI的工具也正在进行攻击性的开发，比如通过网络战，机器人平台或无人机的武器化等等。
如果这种非合作竞争的氛围过于强烈，以至于导致技术上的偷工减料，极有可能使得AI系统部署的风险大大增加。如果进一步扩散到全球数字网络上，导致相当于放射性物质的软件分布在世界各地……后果不堪设想。
然而，事实已经证明了这种影响。Stuxnet震网病毒旨在针对伊朗的浓缩设施，但最终也对其他国家的计算机也造成了破坏。最近，NotPetya恶意软件的出现，虽然最开始被认为是由俄罗斯政府因针对乌克兰的计算机而开发，但随后在全球范围内传播，造成数十亿美元的损失并摧毁了许多医院和公用的电网。
相反，如果政府投资于与人工智能安全性、可预测性和稳健性相关的技术，并在全球范围传播，将产生两个重要影响：（1）将增加该政府、学术界、企业技术界间的联系，让三个不同的领域在共同关心的问题上共同努力，并加速发展；（2）对地缘政治可能更具变革性：通过提高AI系统的稳健性和可预测性，与其他政府合作，甚至是可以与那些立场相对的国家建立合作伙伴关系。
目前来说，人工智能尚未达到破坏性应用的程度，因此，国际社会还有时间来处理人工智能安全问题、以及相关的政策挑战。这意味着，我们有时间考虑国家人工智能战略，将人工智能安全作为未来潜在合作的途径，创建全球基础设施，以最大限度地减少事故和滥用。
| 一网打尽系列文章，请回复以下关键词查看： |
|---|
| 创新发展：习近平 | 创新中国 | 创新创业 | 科技体制改革 | 科技创新政策 | 协同创新 | 科研管理 | 成果转化 | 新科技革命 | 基础研究 | 产学研 | 供给侧 |
| 热点专题：军民融合 | 民参军 | 工业4.0 | 商业航天 | 智库 | 国家重点研发计划 | 基金 | 装备采办 | 博士 | 摩尔定律 | 诺贝尔奖 | 国家实验室 | 国防工业 | 十三五 | 创新教育 | 军工百强 | 试验鉴定 | 影响因子 | 双一流 | 净评估 |
| 预见未来：预见2016 |预见2020 | 预见2025 | 预见2030 | 预见2035 | 预见2045 | 预见2050 |
| 前沿科技：颠覆性技术 | 生物 | 仿生 | 脑科学 | 精准医学 | 基因 | 基因编辑 | 虚拟现实 | 增强现实 | 纳米 | 人工智能 | 机器人 | 3D打印 | 4D打印 | 太赫兹 | 云计算 | 物联网 | 互联网+ | 大数据 | 石墨烯 | 能源 | 电池 | 量子 | 超材料 | 超级计算机 | 卫星 | 北斗 | 智能制造 | 不依赖GPS导航 | 通信 | 5G | MIT技术评论 | 航空发动机 | 可穿戴 | 氮化镓 | 隐身 | 半导体 | 脑机接口 | 传感器 |
| 先进武器：中国武器 | 无人机 | 轰炸机 | 预警机 | 运输机 | 直升机 | 战斗机 | 六代机 | 网络武器 | 激光武器 | 电磁炮 | 高超声速武器 | 反无人机 | 防空反导 | 潜航器 |
| 未来战争：未来战争 | 抵消战略 | 水下战 | 网络空间战 | 分布式杀伤 | 无人机蜂群 | 太空战 | 反卫星 |
| 领先国家：美国 | 俄罗斯 | 英国 | 德国 | 法国 | 日本 | 以色列 | 印度 |
| 前沿机构：战略能力办公室 | DARPA | 快响小组 | Gartner | 硅谷 | 谷歌 | 华为 | 阿里 | 俄先期研究基金会 | 军工百强 |
| 前沿人物：钱学森 | 马斯克 | 凯文凯利 | 任正非 | 马云 | 奥巴马 | 特朗普 |
| 专家专栏：黄志澄 | 许得君 | 施一公 | 王喜文 | 贺飞 | 李萍 | 刘锋 | 王煜全 | 易本胜 | 李德毅 | 游光荣 | 刘亚威 | 赵文银 | 廖孟豪 | 谭铁牛 | 于川信 | 邬贺铨 |
| 全文收录：2017文章全收录 | 2016文章全收录 | 2015文章全收录 | 2014文章全收录 |
| 其他主题系列陆续整理中，敬请期待…… |